クラスメソッド データアナリティクス通信(機械学習編) – 2024年11月号
2024.11.11データ事業本部 インテグレーション部 機械学習チームの鈴木です。
クラスメソッド データアナリティクス通信(機械学習編) の2024年11月号です。2024年10月分のアップデート情報をお届けできればと思います。
はじめに
AWSでは、Bedrockに関するアップデートがたくさんありましたね。特に、Redshiftと統合し、SQLからLLMが利用できるようになったので、データウェアハウス内のデータを分析する際の選択肢が大幅に広がったのではないでしょうか。
Google Cloudでは、Vertex AI Studioでのプロンプト改善の支援機能など、使いやすさを向上するためのアップデートが多かった印象でした。モデルガーデンには多数の新しいモデルが追加されていました。
それでは各々のアップデートを振り返って行ければと思います。
※ アップデートは機械学習チームメンバー内で業務に取り入れられそうかを中心に確認しているので、一部取り上げられていないものもあるかもしれませんが、参考になりましたら幸いです。また、複数のパブリッククラウドのサービスを取り上げますが、比べたりする意図はありません。
AWSのアップデート
Amazon SageMakerのアップデート
SageMaker StudioノートブックがG6eインスタンスをサポート
SageMaker Studioノートブックが、48GBのメモリを備えるNVIDIA L40 Tensor Core GPUが最大8つと第3世代AMD EPYCプロセッサが搭載されたG6eインスタンスをサポートしました。
バージニア北部、オハイオ、オレゴンでサポートされます。
APIのアップデート
BuiltInLifecycleConfigという機能が新しく公開され、それに関するAPI変更がありました。また、モデルパッケージにステージを表すメタデータが追加されたようです。
- 2024/10/02 - Amazon SageMaker Service - 7 updated api methods
- 2024/10/30 - Amazon SageMaker Service - 4 updated api methods
Amazon Bedrockのアップデート
ナレッジベースが取り込みジョブを停止するオプションをサポート
取り込み停止 APIが一般提供され、継続したくない進行中の取り込みジョブを停止できるようになりました。
Conversational Builderを提供開始
Bedrockのエージェント作成に使用できるチャットインターフェイスであるConversational Builderを提供開始しました。アシスタントとチャットしながらエージェントを構築できます。Bedrockのエージェント管理コンソールから使えるようです。
エージェントを利用できるバージニア北部・オレゴン・シドニー・パリ・フランクフルトで利用できます。
モデル評価でカスタムモデルの評価をサポート
評価対象に、Bedrockでのファインチューニングと継続的な事前トレーニングジョブを適用した独自のモデルを評価できるようになりました。これにより、カスタマイズしたモデルのデプロイ可否にモデル評価機能を使うことができます。
生成AI向けにAmazon RedshiftとAmazon Bedrockの統合を発表
RedshiftからBedrockのLLMへリクエストを送信できるようになりました。モデルをプロビジョニングすることなく、SQLでRedshift内のデータを生成AIで処理できるようになり非常に便利ですね。
以下の記事で紹介されています。
アップグレードされたClaude 3.5 Sonnetが利用可能に
オレゴンリージョンのBedrockでアップグレード版のClaude 3.5Sonnetが利用できるようになりました。
Llama 3.1 8Bおよび70Bモデルがファインチューニング可能に
Llama 3.1 8Bおよび70Bモデルがファインチューニングできるようになりました。
カスタムモデルのインポートが一般公開
バージニア北部およびオレゴンでカスタムモデルのインポートを一般提供開始しました。
APIのアップデート
ガードレールおよびモデル実行時に追跡用メタデータが追加されました。
RetrieveAndGenerate APIのオーケストレーション構成で、カスタムプロンプトとモデルパラメータがサポートされるようになりました。
- 2024/10/01 - Agents for Amazon Bedrock - 1 new 3 updated api methods
- 2024/10/02 - Amazon Bedrock Runtime - 3 updated api methods
- 2024/10/02 - Agents for Amazon Bedrock Runtime - 1 updated api methods
- 2024/10/21 - Agents for Amazon Bedrock Runtime - 1 updated api methods
Amazon Transcribeのアップデート
30言語のストリーミング文字起こしを追加
ストリーミング音声文字起こしにさらに30言語が追加され、合わせて54言語になりました。
Google Cloudのアップデート
Generative AI on Vertex AIのアップデート
Dynamic retrieval機能が一般提供開始
グラウンディングをオフにするタイミングを設定できるようになりました。
例えば予測スコアがしきい値を超えているかどうか、などです。
Vertex AI Studioでプロンプトの改善の支援を受けられるように
Vertex AI StudioのAIアシスタントにより、プロンプトを改善する支援を受けられるようになりました。プレビュー提供の機能になります。
Vertex AI StudioのFreeformページより、まずテキスト生成を試した後、Refine responseより利用することができました。
モデルガーデンへのモデル追加
以下のモデルが追加されました。
- Prompt Guard
- Flux
- Hugging Faceモデル
- Llama 3.1 405B
- Anthropic Claude Sonnet 3.5 v2
- Whisper large v3およびWhisper large v3 turbo
また、以下のモデルについてコンソールからファインチューニングできるようになりました。
- Gemma 2
- Llama 3.1
- Mistral
- Mixtral
Vertex AI Gemini API SDKがローカルでトークン数を取得できるように
gemini-1.5-flashおよびgemini-1.5-proを対象に、ローカルでトークン数を取得できるようになりました。
Vertex AI Agent Builderのアップデート
Dynamic retrievalをサポート
Vertex AI Agent BuilderでもDynamic retrievalをサポートしました。
回答についてグラウンディングスコアを取得できるように
検索リクエスト時にRETURN_GROUNDING_SCOREを指定することで、グラウンディングスコアを取得する機能がGAになりました。
根拠の高い回答のみを返す機能がGA
根拠の高い回答のみを返す機能がGAになりました。フィルタを設定することで根拠の乏しい回答を返さないようにできます。
高度なオートコンプリートがパブリックプレビューに
高度なオートコンプリート機能がパブリックプレビューになりました。
BigQueryのアップデート
BigQueryでGeminiの支援を受けたデータ準備ができるように
Geminiの支援を受けてデータ準備を行うことができる機能がプレビューで公開されました。
イベント・サービス情報
相談会
クラスメソッドのアナリティクス分野の支援では、AWS、Google Cloudを中心としたクラウド上でのデータ分析基盤環境づくりにおいてトータルでサポートしています。
このようなことでお困りではないですか？相談会にお気軽にご相談ください。
- 企業内に点在するデータを1箇所にまとめて分析したい
- クラウド上で分析基盤を導入したい・・・
- データを活用したいが、具体的に何から始めたらいいかわからない
機械学習相談会のお申込みはこちらです。
データ分析相談会のお申込みはこちらです。
機械学習システム導入支援サービスについて
AWSやGoogle Cloudなどパブリッククラウドにて、機械学習サービスを活用したシステムの導入支援を行います。詳しくは以下のページをご覧ください。
例えば以下のようなケースをご支援しています。
- ECサイトのレコメンドシステムを構築し、利用者にパーソナライズされたおすすめ商品を提示する
- SNSや問い合わせのログなどから、テキストマイニングを活用したインサイトの発見する
- 画像解析により、工場における不良品検出や農業・畜産業分野での生育管理を効率化する
- 売上や消費者の行動などから、将来の需要を予測する
最後に
2024年10月に発表された、AWSとGoogle CloudのML機能のアップデートについて、メンバーでピックアップした情報についてご紹介しました。
データアナリティクス通信(機械学習編) - 2024年11月号は以上です。
